در پی اعتراضاتی که در بریتانیا و ایالات متحده علیه نابرابری‌های نژادی صورت گرفته است، آی‌بی‌ام دیگر در پی تولید فناوری تشخیص چهره نیست.

آرویند کریشنا مدیرعامل آی‌بی‌ام در نامه‌ای خطاب به نمایندگان کنگره ایالات متحده نوشت که این شرکت دیگر نمی‌خواهد نرم‌افزار همه منظوره تحلیل یا تشخیص چهره ارائه دهد.

طبق این نامه آی‌بی‌ام قاطعانه با استفاده از هرگونه فناوری از جمله فناوری تشخیص چهره برای زیر نظر گرفتن مردم، چهره‌نگاری نژادی، نقض حقوق اساسی و آزادی‌های انسان یا هر مقصود ناسازگار با ارزش‌های خود و اصول اعتماد و شفافیت مخالف است و در برابر آن کوتاه نخواهد آمد.

در این نامه آمده است: «باور داریم که اکنون زمان آغاز گفت‌وگوی ملی درباره آن است که نیروهای انتظامی داخلی فناوری تشخیص چهره را به کار ببرند یا نه و این که چطور از آن استفاده کنند.»

آقای کریشنا هم‌چنین خواستار آن شد که پلیس بابت خلاف‌هایی که انجام می‌دهد پاسخ‌گو باشد و فرصت‌های شغلی جدید محتاج «مهارت‌های متوسط» برای رنگین‌پوستان افزایش یابد یعنی کارهایی که به مهارت‌های تخصصی نیاز دارند ولی به مدرک دانشگاهی سنتی نیازی ندارند مثل رایانش ابری و امنیت فضای مجازی که آی‌بی‌ام در دست تولید دارد.

نرم‌افزار تشخیص چهره هم به دلیل عدم رعایت حریم خصوصی مورد انتقاد بوده -چون مراقبت‌گری دولت را که از پیش هم زیاد بود افزایش می‌دهد- و هم به دلیل آن که این نرم‌افزار به گونه‌ای خارج از تناسب در تشخیص چهره رنگین‌پوستان اشتباه می‌کند.

ابتدای امسال به دولت بریتانیا هشدار داده‌ شده بود که این فناوری دچار ایراد موسوم به «مثبت کاذب» است یعنی به افراد بی‌گناه برچسب خلاف‌کار می‌زند اما کاربری این فناوری در شهرهایی مثل لندن هم‌چنان ادامه دارد.

در آزمایش‌هایی که بین ۲۰۱۶ تا ۲۰۱۸ انجام گرفت مشخص شد این فناوری در ۹۶ درصد مواقع چهره‌های مردم را به غلط جزو خلاف‌کاران تشخیص می‌دهد. با این حال گاهی می‌توان از دو ساعت قبل به مردم اطلاع داد و سپس این فناوری را به کار برد تا مردم با رضایت و دانسته تحت نظارت قرار گیرند.

خود آی‌بی‌ام نیز در گذشته بابت چگونگی تولید فناوری تشخیص چهره مورد انتقاد بوده است. پارسال این شرکت مجموعه‌ای حاوی حدود یک میلیون عکس برگرفته از تارنمای فلیکر را منتشر کرد تا در آموزش دادن الگوریتم‌ها به کار رود.

البته آی‌بی‌ام به صاحبان عکس‌ها اطلاع نداده بود که «عکس‌هایشان را با درج اطلاعات تفصیلی مثل شکل هندسی صورت و رنگ پوست گویاسازی کرده‌اند» و به قول مردیت ویت‌تیکر یکی از مدیران موسسه «ای‌آی ناو» چنین کاری نقض حریم خصوصی مردم برای آموزش دادن سامانه‌هایی بود که در سرکوب مردم قابل استفاده هستند.

آی‌بی‌ام تنها شرکتی نیست که اخیراً بابت استفاده از فناوری تشخیص چهره مورد انتقاد قرار گرفته است. شرکت آمازون هم که در حمایت از جنبش موسوم به «زندگی سیاهان با ارزش است» بیانیه‌هایی صادر کرده است، برای نیروهای انتظامی نرم‌افزار تشخیص چهره تولید و راه‌اندازی می‌کند و به همین خاطر بیانیه‌هایش را «تو خالی» خوانده‌اند.